Този AI червей може да краде лични данни и да изпраща спам имейли

Изследователите сътвориха AI червей, върху който даже не е нужно да щраквате, с цел да нанесете вреди.

Изследователи по сигурността сътвориха червей с изкуствен интелект (AI), който може да проникне в модели като ChatGPT и Gemini и евентуално да открадне данни.

Базиран в Съединените щати и Израел, преднамерено построен компютърен червей, който да служи като сигнализатор за попречване на появяването им в генеративни AI (GenAI) модели.

Компютърният червей може да се възпроизвежда и да се популяризира посредством компрометиране на други машини. За разлика от други червеи, този не се нуждае от кликване или отваряне на имейл, с цел да получи злонамерения програмен продукт, той прави това автоматизирано сега, в който получите инфектирания имейл.

Те нарекоха червея Morris II след първия в историята компютърен червей, създаден през 1988 година

Как работи?

Изследователите сътвориха имейл система, която може да дава отговор на известия благодарение на GenAI и по-късно да се включва в модели ChatGPT, Gemini и LLaVA.

Morris II беше демонстриран против ръководени от GenAI имейл асистенти и можеше да открадне персонални данни и да започва спам акции.

„ Проучването демонстрира, че нападателите могат да вметнат такива подкани във входове, които, когато се обработват от GenAI модели, подканват модела да репликира входа като излаз (репликация) и да взе участие в злонамерени действия (полезен товар) “, пишат откривателите.

Подкана, която е всяка въпрос или връзка, заложена на AI модела, принуждава AI модела да отговори с друга подкана, която може да болести AI асистента, с цел да извлече по-късно сензитивна информация.

След това червеят може да бъде изпратен до други контакти във вашата онлайн мрежа, „ употребявайки свързаността в екосистемата на GenAI “, прибавиха те.

Изследователите предизвестяват, че макар че не са видяни AI червеи, това е единствено въпрос на време.

„ Това главно значи, че в този момент имате способността да организирате или да правите нов тип хакерска атака, която не не е било виждано до момента “, сподели Бен Наси, откривател от университета Корнел, който стои зад компютърния червей, в изявление за изданието Wired.

Проучването е обезпокоителен случай, защото асистентите с изкуствен интелект го вършат в смарт устройства и даже коли и могат да изпращат имейли или да резервират срещи от нечие име.

В друга публикация, оповестена предишния месец, откриватели от Сингапур и Китай демонстрираха, че могат елементарно да получат root достъп до операционна система на огромен езиков модел (LLM).